iT邦幫忙

2025 iThome 鐵人賽

DAY 7
0
生成式 AI

可愛又迷人的提示詞工程 Prompt Engineering系列 第 7

Day7. Chain of Thought (CoT) 推理與逐步思考

  • 分享至 

  • xImage
  •  

大家可以回想一下自己在使用 AI 的過程中,是否曾經發生這樣的狀況:明明指令下得很清楚,但 AI 的回答還是跟自己想要的差了十萬八千里?而且缺少了中間推理思考的過程,所以輸出的結果總是讓人不太敢輕信與使用

為了解決這個問題,我們可以使用 Chain of Thought (以下簡稱 CoT ) 技巧來協助 AI,所謂的 CoT 就是模擬人類思考的過程,我們在腦海中解題,或進行各種沙盤推演時,並不是憑空冒出答案的,而是會一步步拆解、再逐漸推出結論。所以 AI 接收到 CoT 提示詞後,就會模仿我們這種思考的過程,讓輸出的邏輯變得更透明可靠。

這讓我想起高中時,我曾經看了一道數學題就直接寫出答案,後來老師還特地問我是怎麼解出來的,我還記得當時回答了一個很 8+9 的答案:「就... 看著題目就這樣寫出來了」(什麼鬼 XXD),現在回想起來,我當時就有成為 AI 的潛力啊 QwQ。

Chain of Thought (CoT) 介紹

CoT 思維鏈就是讓 AI 顯式的展示推理步驟的提示詞技巧,我們不直接跟 AI 要答案,而是要求 AI 先解釋如何思考,再給出結論。

我們使用一個簡單的數學問題,來了解 CoT 的價值,首先是單刀直入的提示詞:

問題:小明有 15 顆蘋果,吃了 5 顆,又買了 8 顆,請問他現在有幾顆蘋果?

再來是加上 CoT 的提示詞:

問題:小明有 15 顆蘋果,吃了 5 顆,又買了 8 顆,請問他現在有幾顆蘋果?
請一步步思考並解答。

這是 AI 的 CoT 回應,提供了計算方式與思考過程:

https://ithelp.ithome.com.tw/upload/images/20250920/20120631pvQD370SaX.png

這背後的原理就是模擬了人類慢思考的過程,因為複雜的問題需要深度的邏輯處理,所以我們用 CoT 啟動 AI 的慢思考模式,強制讓 AI 進行結構化的思考,以減少跳躍式推理的錯誤,另外讓 AI 寫出思考過程,也可以讓我們檢視每一步的邏輯有沒有問題。

但如同前面提過,現在的 LLM 都非常強大,而且他們在大量訓練資料中,已經內化了這種回答習慣,可以自己判斷什麼時候需要放慢去思考,所以現在即使沒有特別告訴 AI 需要提供思考過程,他也會自動展示自己的 CoT。

不過明確使用 CoT 提示詞依然有其必要性,尤其是在較複雜的問題上,使用提示詞可以強制 AI 進入 CoT 模式,關於使用情境會在後續內容提到 ⬇️。

如何使用 CoT

在提示詞中搭配 CoT 的方法非常靈活,這邊幫大家整理了從簡單到複雜的三個版本:

簡單版:一句提示就能解決

最簡單的方式,就是加上一句提示即可,例如:

  • 請逐步推理並說明你的思考過程
  • think step by step
  • 先分析再回答

這些提示雖然簡短卻依然是 CoT 的提示詞,AI 看到後就不會直接跳到答案

中階版:提供思考的框架

不同於簡單版是讓 AI 自由發揮思考步驟,我們也可以給定框架讓 AI 照著我們的步驟去分析問題,通常用在商業分析或訂定策略的情境:

請用以下步驟分析這個商業問題:
1. 理解問題核心
2. 分析各種可能性
3. 評估風險與機會
4. 提出建議方案

問題:我們的 APP 使用者一直遞減,該怎麼辦?

進階版:結合 Few-shot 的引導式 CoT

是的,Few-shot 又來了!畢竟要讓 AI 理解最有效的方法之一就是學習模仿,所以我們可以提供一個「逐步推理」的範例讓 AI 學習,例如:

請參考以下的思考方式分析問題:

範例:如何提升網站轉換率?
思考過程:
1. 現況分析:目前轉換率多少?
2. 問題診斷:哪個環節流失最多用戶?
3. 解決方案:針對問題點提出改善措施

現在請用同樣方式分析:如何降低客服電話量?

此時 AI 就會參考這個思考過程提供對應的資料,每個項目大約有 5 個列點內容:

https://ithelp.ithome.com.tw/upload/images/20250920/20120631LWXH9YAw7Y.png

CoT 的應用場景與限制

以我自身為例,我覺得最需要用 CoT 處理的任務就是跟數學、邏輯相關的輸出,因為這類問題的正確性很依賴中間步驟,如果我們省略了過程,AI 就會因為小小的計算失誤而給出完全錯誤的結論。大家還記得 ChatGPT 一開始問世時,不管是算數還是數數都不擅長嗎,很大原因就是因為缺少了 CoT 的提示詞。

再來也可以用 CoT 幫忙做商業決策這種需要邏輯或花時間分析的事務。公司的商業決策通常會有固定的框架,這時候就可以把這個框架拆解成步驟,請 AI 協助分析:

主題:請評估我們公司 (一家專注於效率工具的軟體商) 推出一款「AI 會議助理 App」的可行性。

請嚴格依照以下的思考步驟來分析並給出建議:

步驟一:定義核心問題
首先,分析這款 AI 會議助理主要解決了目標用戶的哪一個「最痛」的問題?例如:會議太多導致無法專注?或是會議後的任務追蹤混亂?

步驟二:鎖定目標客群
承上一步分析的「痛點」,什麼樣的群體或職位最迫切需要解決這個問題?(這個客群的定義必須直接源自步驟一的結論。)

步驟三:提煉核心價值主張
基於上述的「特定痛點」和「特定客群」,我們應該如何用一句話向他們傳達產品的獨特價值?這個價值主張必須精準回應步驟一的問題,並吸引步驟二的客群。

步驟四:評估關鍵風險
基於我們提出的「價值主張」,目前市場上最大的威脅是什麼?例如:競爭對手是否已用不同方式滿足了此需求?或此客群是否有轉換障礙?

步驟五:做出最終決策建議
綜合以上所有分析,你認為我們應該投入資源開發,還是需要重新審視這個方向?請說明理由。

在 debug 網站時也可以加入 CoT 的提示詞,例如請 AI 按步驟分析網站變慢的原因:

問題:網站載入速度變慢了,請診斷可能原因

請按照以下步驟分析:
1. 定義問題
2. 收集資料
3. 假設原因
4. 逐一驗證
5. 提出解決方案

雖然 CoT 看起來無所不能,但事實上還是有些問題,最主要的原因就是 AI 不像人類一樣真的能獨立思考,AI 展現的推理過程,更像是一種模仿,這也會造成他的邏輯看起來好像很合理,但事實上可能在中途就跑偏了,或者夾雜部分錯誤。

為了避免這種情況發生,我們可以再加入更強的約束提示詞:

請聚焦以下的關鍵點思考,不要考慮其他因素

或者請 AI 檢查一下自己寫的東西:

請在得出最終答案前,重新檢查你的推理過程:
1. 每個步驟的前提是否正確?
2. 邏輯推導是否合理?

從鏈狀到樹狀的思考

我在使用進階版 CoT 的段落有結合 Few-shot 提示詞,這表示 CoT 是可以與其他技巧相結合,以產生更好的效果。

結合角色扮演

我們可以結合在 Prompt 的三大要素:角色、任務、格式介紹到的角色功能,請 AI 扮演某領域的專家,並在限制的條件下進行思考:

請扮演一位經驗豐富的產品經理,在預算上限 50 萬和開發時程不能超過 3 個月的限制下,逐步分析如何快速進入新市場?

AI 在分析的過程中,會寫出行動和預期的產出,以確保時程順利進行。

https://ithelp.ithome.com.tw/upload/images/20250920/201206314iCoKRBXgS.png

多重驗證思考

我們也可以要求 AI 產生多條思維推理鍊,然後比較不同的輸出:

請用兩種不同方法 (A 和 B 方法) 解決這個問題,並比較結果是否一致。

關於多重驗證思考 (Self-consistency) 的介紹我們會在後續的章節詳細說明。

從 Chain 到 Tree

如果 CoT 是一個鏈,那 ToT (Tree of Thought, 思維樹),就是在每個思考的節點上在探索不同的可能,進而形成一個樹狀 (網狀) 結構, 適合用在非常複雜的開放性問題上,幫助我們從茫茫網海中找到最好的起點。

請用樹狀思考分析問題:男女朋友分手的原因

第一層:問題的三種可能原因(A, B, C);
第二層:針對每個原因,分析其子原因或解決方案;
最後:選出最佳路徑。

我請 Gemini 2.5 Pro 幫我分析男女朋友分手的可能原因,他就會先拆成兩個層級,再進行分析與比較:

https://ithelp.ithome.com.tw/upload/images/20250920/20120631rmxHPI1Ws4.png

製作自己的 CoT Prompt Templates

CoT 最有價值的地方就是把一個複雜的、模糊的大問題,轉化成一個有結構的框架。這邊提供四個情境的 CoT Prompt Templates,都是我覺得通性用高也實用的提示詞,大家可以直接複製使用。

原因分析的 CoT

當我們碰到一個問題 (ex. 業績下降、感情受挫 ....) 想要快速找到真正原因時,可以使用這個模板,他的特性是可以深入分析與評估現狀,而非只停留在表面的問題。

請使用以下步驟來分析並解決指定的問題:

**問題情境:** 

[在此填入你觀察到的主要問題或現象,例如:我們 APP 的用戶月活躍度連續三個月下降]

**請逐步思考:**

1. **定義具體症狀:** 明確指出最表層、最直接被觀察到的問題數據或現象是什麼?
2. **列出可能原因:** 導致這個症狀的所有可能原因有哪些? (請從產品、行銷、營運、外部競爭等角度發想。)
3. **評估與鎖定:** 根據現有數據或邏輯判斷,哪 1-2 個是「最有可能」的主要原因?為什麼?
4. **深入挖掘:** 針對上述「主要原因」,為什麼這個原因會發生?(如果需要,可以像「剝洋蔥」一樣再追問一次為什麼。)
5. **提出對策:** 針對你找到的「根本原因」(而非表面症狀),提出 2-3 個具體且可執行的解決方案,並排序其優先級。

協助決策評估的 CoT

當我們有多個選項需要做出權衡時,就可以用這個 CoT 先幫我們定義好標準再進行評估,盡量在客觀不帶有情緒的前提下,輔助我們進行決策。

我需要你幫我從以下選項中做出最佳決策。

**決策目標:** [ 在此填入你要達成的最終目的,例如:選擇一個最適合 50 人團隊的專案管理工具 ]
**選項 A:** [ 填入選項 A 的名稱或描述,例如:Asana ]
**選項 B:** [ 填入選項 B 的名稱或描述,例如:ClickUp ]
**選項 C:** [ 填入選項 C 的名稱或描述,例如:Jira ]

**請逐步思考:**

1.  **確立評估標準:** 首先,為了達成「決策目標」,最重要的 3-5 個評估標準是什麼? (例如:1. 成本 2. 易用性 3. 整合能力 4. 擴展性)
2.  **逐項分析:** 根據上述所有標準,逐一評估每個選項的優勢與劣勢。
3.  **關鍵差異對比:** 針對你認為最重要的 1-2 個標準,直接比較 A、B,和 C 的「關鍵差異」在哪裡?
4.  **風險評估:** 選擇 A、B 或 C 各自可能面臨的最大風險是什麼?
5.  **提出建議:** 總結分析,明確推薦選擇哪個選項,並說明你的核心理由。

逆向規劃的 CoT

我們有個明確但遙遠的目標,例如這一季的 KPI、產品上線發表會 ... 等,需要制定一個可行的路徑,而這個路徑是要從終點倒推回原點時,就可以考慮用逆向規劃的方式回推。

我有一個明確的目標,請幫我制定一個可執行的行動計劃。

**最終目標 (Goal):** [ 在此填入你希望達成的最終成果,例如:在 90 天內讓新產品的網站註冊轉換率達到 5% ]
**目前狀態 (Current):** [ 簡述目前的起點,例如:目前轉換率只有 1% ]

**請使用「逆向工程」逐步思考:**

1. **成功的關鍵前提:** 為了達成「最終目標 5%」,在它發生的前一刻(例如第 60-90 天),必須先完成的「關鍵里程碑」是什麼?(例如:A/B 測試流程必須順暢且至少完成 5 輪測試)
2. **中間步驟:** 為了達成「上述里程碑」,再往前推 (例如第 30-60 天),我們必須先完成什麼? (例如:必須先建立好分析工具的事件追蹤,並產出至少 3 個版本的登錄頁面)
3. **啟動任務:** 為了開始「中間步驟」,我們從「目前狀態」出發,在第一個 30 天內,必須完成的第一個具體行動是什麼? (例如:必須先完成用戶訪談,找出目前 1% 轉換率的瓶頸)
4. **總結行動路徑:** 請將以上分析轉化為一個從「現在」到「未來」的正向時間順序步驟列表 (例如:階段一:... 階段二:... 階段三:...)

解釋論點的 CoT

我常常在社群中看到很多不同觀點的優質好文,我自己很喜歡看這些文章並思考著:為什麼他們那麼厲害,都可以有不同的觀點?有時候我會想學習他們思考的方式,或想了解他們經歷了什麼,到底是要經過怎樣的訓練才能寫出那麼棒的文章?

所以我會搭配這個解構大家論點的 CoT,希望可以幫助到我學習每個人的觀點,並從中思考有沒有我沒抓到的點。

請幫我深入分析以下這段文字,並評估其論點的強度。

**待分析文字:**

"""
[在此貼上你希望分析的文章段落、新聞報導或他人論述]
"""

**請逐步思考:**

1. **核心論點:** 作者試圖傳達的最主要的核心觀點或主張是什麼?請用一句話總結。
2. **支撐證據:** 作者提出了哪些主要的事實、數據、案例或理由來支持他的核心論點?請列出 1-3 個。
3. **隱藏假設:** 為了讓「證據」能導向「論點」,作者做了哪些沒有明說的「隱藏假設」?
4. **邏輯評估:** 這些證據與論點之間的邏輯聯繫是否牢固?是否存在任何邏輯謬誤、數據誤用或情感偏見?
5. **綜合結論:** 總體來說,這個論點的可信度高還是低?你被說服了嗎?為什麼?

小結

透過 CoT 提示詞讓 AI 開始有思考能力,這樣我們就愈能理解 AI 的想法,透過回答,不僅看到了 What,更能看懂 Why,也許還能從中學習 AI 的思路,並與它協作,且在 AI 出錯時知道如何修正他。

以上的分享希望能讓大家更了解 CoT 的概念,有任何問題都歡迎留言討論。


上一篇
Day6. 如何設計給 AI 用的指令語言
系列文
可愛又迷人的提示詞工程 Prompt Engineering7
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言